Contextual and Seasonal Lstms for Time Series Anomaly Detection
计 算 机 与 大 数 据 学 院 Fuzhou University Contextual and Seasonal Lstms for Time Series Anomaly Detection 面 向 时 间 序 列 异 常 检 测 的 上 下 文 与 季 节 LSTM 出 版 单 位 ： ICLR2026 作 者 ： Lingpei Zhang ， Qingming Li ， Yong Yang ， Jiahao Chen, Rui Zeng ， Chenyang Lyu ， Shouling Ji 作 者 单 位 ： 浙 江 大 学 ， 华 为 技 术 有 限 公 司 ， 浙 江 省 决 策 智 能 重 点 实 验 室 汇 报 人 ： 林 哲 日 期 ： 2026-3-25
一、摘要
一 、 摘 要 单 变 量 时 间 序 列 （ UTS ） 是 web 系 统 和 云 服 务 器 中 的 关 键 指 标 。 UTS 中 的 异 常 检 测 在 数 据 挖 掘 和 系 统 可 靠 性 管 理 中 均 扮 演 着 至 关 重 要 的 角 色 。 然 而 ， 现 有 的 基 于 重 构 和 基 于 预 测 的 方 法 难 以 捕 捉 某 些 细 微 的 异 常 ， 特 别 是 微 小 的 点 异 常 和 缓 慢 上 升 的 异 常 。 为 解 决 这 些 挑 战 ， 我 们 提 出 了 一 种 新 颖 的 基 于 预 测 的 框 架 ， 名 为 上 下 文 与 季 节 LSTM （ CS-LSTM ） 。 什 么 是 单 变 量 时 间 序 列 (UTS) ： 例 如 ， 你 每 天 早 上 量 一 次 体 重 ， 记 录 下 来 ： [60kg, 60.5kg, 60.2kg...] 。 在 计 算 机 领 域 ， 也 可 以 指 cpu 利 用 率 （ 30% ） 。 论 文 要 解 决 什 么 问 题 ： 现 有 的 AI 模 型 能 抓 住 “ 大 毛 病 ” ， 但 抓 不 住 “ 小 毛 病 ” 和 “ 慢 性 病 ” 。 论 文 的 解 决 方 案 ： 发 明 了 一 个 叫 CS-LSTMs 的 模 型 。 它 不 仅 看 现 在 的 局 部 状 态 （ 上 下 文 ） ， 还 看 历 史 周 期 规 律 （ 季 节 性 / 周 期 性 ） ， 最 后 还 能 把 干 扰 项 （ 噪 音 ） 去 掉 ， 从 而 精 准 揪 出 那 些 隐 藏 很 深 的 异 常 。
二、引言
二 、 引 言 研 究 背 景 ： 在 云 服 务 、 物 联 网 和 监 控 系 统 中 ， 数 据 通 常 被 表 示 为 单 变 量 时 间 序 列 。 当 网 站 受 到 恶 意 攻 击 或 服 务 器 负 载 过 高 时 ， 就 会 出 现 异 常 。 如 果 错 过 或 延 迟 检 测 到 这 些 异 常 事 件 ， 可 能 会 导 致 严 重 的 后 果 。 时 间 序 列 中 的 异 常 通 常 分 为 两 类 ： 点 异 常 （ 指 全 局 或 局 部 的 突 然 偏 差 ） 和 片 段 异 常 （ 反 映 趋 势 或 周 期 模 式 中 更 细 微 的 转 变 ） 。
二、引言
二 、 引 言 为 了 检 查 现 有 方 法 的 局 限 性 ， 我 们 重 新 评 估 了 几 种 最 先 进 的 方 法 。 我 们 发 现 有 两 种 异 常 很 大 程 度 上 未 被 检 测 到 ： （ 1 ） 微 小 点 异 常 ： 在 较 长 窗 口 内 看 起 来 正 常 的 短 期 尖 峰 ； （ 2 ） 缓 慢 上 升 的 异 常 ： 逐 渐 偏 离 周 期 性 模 式 的 片 段 。
二、引言
二 、 引 言 为 了 有 效 检 测 这 两 种 异 常 ， 我 们 强 调 以 下 三 个 关 键 挑 战 ： 挑 战 1 ： 捕 捉 局 部 趋 势 ， 而 不 是 绝 对 值 。 绝 对 值 的 变 化 幅 度 不 足 以 决 定 一 个 点 是 否 异 常 。 必 须 结 合 当 前 短 时 间 窗 口 内 的 数 据 变 化 模 式 ， 才 能 更 好 地 估 计 未 来 正 常 值 的 预 期 范 围 。
二、引言
二 、 引 言 挑 战 2 ： 捕 捉 周 期 性 的 演 变 ， 而 不 是 将 其 视 为 静 态 。 时 间 序 列 数 据 具 有 不 断 演 变 的 趋 势 和 周 期 性 。 如 果 不 考 虑 这 种 演 变 ， 很 难 区 分 “ 缓 慢 的 异 常 ” 和 “ 正 常 的 周 期 变 化 ” 。 挑 战 3 ： 在 异 常 和 噪 声 中 捕 捉 正 常 模 式 。 在 现 实 场 景 中 ， 时 间 序 列 往 往 包 含 长 期 噪 声 和 突 然 的 异 常 ， 这 两 者 都 会 阻 碍 模 型 学 习 “ 正 常 ” 的 模 式 ， 使 学 习 过 程 变 得 复 杂 。
二、引言
二 、 引 言 本 文 贡 献 ： • 我 们 分 析 了 UTS 中 难 以 检 测 的 异 常 ， 并 确 定 其 根 本 原 因 是 现 有 方 法 无 法 有 效 整 合 局 部 趋 势 与 周 期 变 化 。 • 我 们 引 入 了 一 种 噪 声 分 解 策 略 ， 通 过 有 效 消 除 时 间 序 列 的 非 平 稳 性 来 更 好 地 捕 捉 正 常 模 式 ， 从 而 提 高 预 测 准 确 性 和 异 常 检 测 的 鲁 棒 性 。 • 我 们 设 计 了 具 有 双 分 支 架 构 的 CS-LSTM ： 一 个 分 支 利 用 频 域 分 析 （ Hamilton, 2020 ） 来 建 模 长 期 周 期 性 及 其 演 变 ， 而 另 一 个 分 支 捕 捉 短 期 局 部 动 态 。 两 者 的 结 合 有 效 增 强 了 异 常 检 测 的 能 力 。 • 大 量 实 验 表 明 ， CS-LSTM 实 现 了 卓 越 的 F1 分 数 ， 并 将 时 间 效 率 比 最 先 进 方 法 提 高 了 40% 。
三、预备知识
三 、 预 备 知 识 UTS 异 常 检 测 的 目 标 是 利 用 每 个 点 xi 之 前 的 数 据 [x0,x1,…,xi−1] 来 预 测 ci 。 LSTM 是 一 种 特 殊 的 循 环 神 经 网 络 （ RNN ） ， 旨 在 解 决 传 统 RNN 难 以 捕 捉 长 期 依 赖 关 系 的 梯 度 消 失 问 题 。 LSTM 在 处 理 时 间 序 列 数 据 、 自 然 语 言 处 理 任 务 以 及 其 他 涉 及 时 间 依 赖 的 问 题 上 非 常 有 效 。 协 变 量 是 统 计 模 型 、 机 器 学 习 及 相 关 研 究 中 用 作 输 入 的 变 量 。 它 可 能 与 目 标 变 量 （ 因 变 量 ） 相 关 ， 并 对 其 产 生 直 接 或 间 接 的 影 响 。 协 变 量 通 常 用 于 解 释 目 标 变 量 的 变 化 或 控 制 混 杂 因 素 。
三、模型架构
三 、 模 型 架 构 我 们 提 出 的 CS-LSTM 模 型 如 图 所 示 。 该 模 型 由 两 个 分 支 组 成 ： 第 一 个 分 支 是 季 节 预 测 分 支 ， 通 过 学 习 历 史 序 列 的 周 期 性 来 预 测 未 来 点 ； 第 二 个 分 支 是 局 部 预 测 分 支 ， 通 过 学 习 短 期 内 的 变 化 趋 势 和 分 布 来 预 测 未 来 点 。
三、方法论
三 、 方 法 论 提 出 的 噪 声 分 解 策 略 旨 在 解 决 两 个 关 键 挑 战 ： （ 1 ） 缺 乏 异 常 点 的 真 实 标 签 ； （ 2 ） 拟 合 时 间 序 列 正 常 模 式 的 困 难 。 在 时 间 序 列 预 测 的 背 景 下 ， DLinear 引 入 了 一 种 简 单 的 基 于 池 化 的 分 解 方 法 ， 将 序 列 分 解 为 趋 势 和 残 差 分 量 。 在 时 间 序 列 异 常 检 测 中 ， TFAD 使 用 鲁 棒 STL 将 序 列 分 解 为 趋 势 和 残 差 分 量 以 进 行 异 常 检 测 。 然 而 ， CS-LSTM 的 目 标 是 分 别 预 测 周 期 分 量 和 趋 势 分 量 。 因 此 ， 我 们 提 出 了 一 种 噪 声 分 解 策 略 ， 其 中 只 滤 除 噪 声 ， 不 做 进 一 步 分 解 。 3.1 噪 声 分 解
三、方法论
三 、 方 法 论 DLinear 的 策 略 不 足 以 解 决 这 种 表 述 ， 而 STL 则 过 于 复 杂 且 计 算 成 本 高 。 为 了 实 现 高 效 分 解 ， 我 们 采 用 小 波 变 换 。 第 一 步 ： 拆 解 信 号 第 二 步 ： 估 算 正 常 的 噪 声 水 平 第 三 步 ： 设 置 门 槛 ， 过 滤 噪 声 第 四 步 ： 把 干 净 的 数 据 拼 回 去
三、方法论
三 、 方 法 论 观 点 ： 以 往 的 方 法 假 设 周 期 是 死 板 的 （ 静 态 的 ） ， 但 现 实 中 周 期 是 会 演 变 的 （ 动 态 的 ） 。 S-LSTM 分 支 专 注 于 学 习 历 史 数 据 中 的 周 期 信 息 和 演 变 趋 势 ， 以 检 测 片 段 级 别 的 异 常 。 S-LSTM 工 作 的 流 程 ： 第 一 步 ： 切 分 窗 口 （ 划 分 序 列 ） 做 法 ： 把 过 去 很 长 一 段 历 史 数 据 ， 切 成 一 段 一 段 大 小 相 等 的 “ 窗 口 ” （ 不 重 叠 ） 。 第 二 步 ： 傅 里 叶 变 换 FFT 做 法 ： 对 每 个 窗 口 的 数 据 做 “ 傅 里 叶 变 换 ” ， 从 时 域 转 到 频 域 。 第 三 步 ： LSTM 建 模 做 法 ： 把 这 一 个 个 片 段 的 频 率 向 量 按 顺 序 喂 给 LSTM ， 并 且 将 原 始 时 域 值 视 为 协 变 量 。 3.2 S-LSTM
三、方法论
三 、 方 法 论 观 点 ： 传 统 的 算 法 只 盯 着 单 个 数 据 点 看 ， 太 片 面 了 。 我 们 要 看 “ 一 小 段 ” 数 据 的 变 化 趋 势 和 分 布 情 况 。 C-LSTM 分 支 旨 在 学 习 相 邻 历 史 数 据 中 的 局 部 变 化 趋 势 和 分 布 ， 以 识 别 突 发 的 、 突 变 性 的 异 常 。 C-LSTM 工 作 的 流 程 ： 第 一 步 ： 重 叠 切 片 做 法 ： 把 数 据 切 成 一 小 段 一 小 段 ， 而 且 每 一 段 之 间 要 重 叠 。 第 二 步 ： 傅 里 叶 变 换 FFT 做 法 ： 同 样 也 用 了 傅 里 叶 变 换 （ FFT ） ， 但 这 次 是 在 很 小 的 窗 口 里 做 。 第 三 步 ： LSTM 建 模 做 法 ： 用 LSTM 去 学 习 这 些 重 叠 的 小 片 段 之 间 的 逻 辑 关 系 。 3.3 C-LSTM
三、方法论
三 、 方 法 论
三、方法论
三 、 方 法 论 我 们 采 用 噪 声 分 解 的 负 对 数 似 然 （ NLL ） 损 失 函 数 ， 与 均 方 误 差 (MSE) 或 平 均 绝 对 误 差 （ MAE ） 相 比 ， NLL 损 失 通 过 同 时 预 测 均 值 和 方 差 来 更 好 地 反 映 不 确 定 性 ， 自 然 地 适 应 了 正 常 行 为 的 概 率 特 性 。 我 们 设 计 了 一 个 包 含 三 个 核 心 组 件 的 损 失 函 数 ： （ 1 ） 噪 声 分 解 ， （ 2 ） 异 常 掩 码 ， 以 及 （ 3 ） 基 于 范 围 的 预 测 。 最 终 的 损 失 函 数 D 结 合 了 预 测 均 值 μ 、 方 差 σ2 、 真 实 值 x 、 噪 声 分 解 值 x^ 以 及 异 常 掩 码 。 令 和 分 别 表 示 每 个 分 支 的 预 测 值 。 它 们 各 自 的 损 失 Ls 和 Lc 分 别 基 于 预 测 值 与 实 际 未 来 点 之 间 的 差 异 进 行 计 算 。 总 损 失 设 计 如 下 ： 3.4 损 失 函 数
四、数据集和基线方法
四 、 数 据 集 和 基 线 方 法 为 了 评 估 我 们 提 出 框 架 的 有 效 性 ， 我 们 在 四 个 基 准 数 据 集 上 进 行 了 实 验 。 对 于 所 有 公 开 可 用 的 数 据 集 ， 我 们 将 其 划 分 为 35% 的 训 练 集 、 15% 的 验 证 集 和 50% 的 测 试 集 。 我 们 将 CS-LSTM 与 十 种 代 表 性 方 法 进 行 比 较 ： SPOT (2017) 、 SRCNN (2019) 、 TFAD (2022a) 、 DONUT (2018) 、 Informer (2021) 、 Anomaly- Transformer (2021) 、 AnoTransfer (2022b) 、 VQRAE (2022) 、 KAN-AD (2024) 和 FCVAE (2024) 。
四、评估指标
四 、 评 估 指 标 在 工 业 场 景 中 ， 异 常 通 常 以 片 段 而 非 孤 立 点 的 形 式 出 现 ， 这 使 得 点 级 精 确 率 不 那 么 关 键 。 遵 循 先 前 的 工 作 ， 我 们 使 用 两 个 指 标 ： 最 佳 F1 分 数 （ Best F1 ） 和 延 迟 F1 分 数 （ Delay F1 ） ， 两 者 均 采 用 点 调 整 策 略 。 最 佳 F1 分 数 将 片 段 内 任 意 一 点 被 识 别 即 视 为 该 片 段 被 检 测 到 ， 而 延 迟 F1 分 数 要 求 在 最 大 等 待 时 间 k 内 检 测 到 ， 较 小 的 k 意 味 着 更 严 格 的 评 估 。 我 们 根 据 数 据 集 复 杂 度 和 噪 声 水 平 设 置 了 特 定 于 数 据 集 的 k 值 ： Yahoo (k=3) 和 KPI (k=7) 具 有 准 确 的 标 注 ； NAB (k=150) 包 含 许 多 连 续 片 段 异 常 ； WSD (k=40) 在 异 常 周 围 存 在 大 量 标 签 噪 声 ， 需 要 适 度 增 加 k 以 减 少 影 响 。
四、主要结果
四 、 主 要 结 果
四、消融实验
四 、 消 融 实 验 在 Yahoo 、 KPI 和 WSD 数 据 集 上 的 消 融 实 验 在 Yahoo 、 NAB 、 WSD 和 AIOPS 数 据 集 上 的 去 噪 策 略 比 较 不 同 去 噪 策 略 下 每 轮 训 练 所 花 费 的 时 间
四、消融实验
四 、 消 融 实 验 窗 口 大 小 对 F1 分 数 的 影 响 。 上 图 ： 固 定 季 节 窗 口 ， 变 化 上 下 文 窗 口 （ 蓝 色 曲 线 ） 。 下 图 ： 固 定 上 下 文 窗 口 ， 变 化 季 节 窗 口 （ 橙 色 曲 线 ） 。
五、结论
五 、 结 论 本 文 提 出 CS-LSTMs ， 一 种 基 于 无 监 督 预 测 的 非 平 稳 时 间 序 列 （ UTS ） 异 常 检 测 新 方 法 。 该 模 型 采 用 双 分 支 架 构 ： S-LSTM 通 过 频 域 建 模 （ 利 用 快 速 傅 里 叶 变 换 ） 捕 捉 长 期 周 期 模 式 ， 而 C-LSTM 则 通 过 上 下 文 依 赖 关 系 聚 焦 短 期 局 部 趋 势 。 两 个 分 支 的 结 合 提 升 了 模 型 的 能 力 。 我 们 在 训 练 过 程 中 引 入 噪 声 分 解 ， 以 减 少 异 常 点 带 来 的 噪 声 ， 并 提 出 一 种 “ 正 常 距 离 ” 度 量 来 量 化 异 常 的 严 重 程 度 。 CS-LSTMs 通 过 有 效 建 模 周 期 结 构 与 局 部 变 化 ， 解 决 了 非 平 稳 时 间 序 列 异 常 检 测 中 的 关 键 挑 战 。 该 方 法 在 四 个 公 开 数 据 集 （ Yahoo 、 KPI 、 WSD 、 NAB ） 上 取 得 了 最 先 进 的 性 能 ， 并 将 推 理 效 率 提 升 了 40% 。
谢谢！
计 算 机 与 大 数 据 学 院 Fuzhou University 谢 谢 ！